Hơn 1 năm sau khi lên ngôi Hoàng đế, tháng 7 năm Canh Tuất, Lý Thái Tổ bắt đầu dời đô từ Hoa Lư về Đại La. Từ việc tìm đất, nghị bàn đến việc chuẩn bị để dời đô diễn ra tương đối khẩn trương. Từ Hoa Lư về thành Đại La có thể đi theo đường bộ hoặc theo đường thủy. Sử cũ không ghi chép chi tiết nhà Lý dời đô bằng đường nào. Các nhà nghiên cứu đã kết luận: nhà Lý dời đô bằng đường thủy. Và chỉ có dời đô bằng đường thủy thì mới an toàn và tải được cả bộ máy triều đình đông đảo cùng vật chất bảo đảm đồ sộ đi kèm.[16] Ca dao vùng Hoa Lư ngày nay còn lưu truyền về sự tiếc nguối của người dân cố đô khi tiễn đoàn thuyền dời đô cũng như tâm trạng của thái tử Lý Phật Mã như sau:

Năm Thái Bình thứ 7 (976), dưới thời vua Đinh Tiên Hoàng đã có việc buôn bán với nước ngoài bằng thuyền. Khi Lý Công Uẩn dời đô cũng cần đưa đội thuyền đi theo. Đoàn thuyền xuất phát từ bến Ghềnh Tháp (nay là khu vực trước phủ Vườn Thiên và nhà bia Lý Thái Tổ ở khu di tích Cố đô Hoa Lư). Rồi thuyền vào sông Sào Khê, qua cầu Đông, cầu Dền ở Hoa Lư để ra bến đò Trường Yên vào sông Hoàng Long xuôi về Gián Khẩu thì rẽ vào sông Đáy. Từ sông Đáy lại xuôi dòng rẽ vào sông Châu Giang. Cắt qua Hà Nam đoàn thuyền xuôi sông Hồng, rồi ra sông Tô Lịch sau cửa thành Đại La.[17]

Như vậy hành trình dời đô đi qua sáu con sông khác nhau, trong đó các hành trình trên sông Sào Khê, sông Hoàng Long, sông Châu Giang là đi xuôi dòng, trên sông Đáy, sông Hồng, sông Tô Lịch là đi ngược dòng.